NVIDIA再快也不行 nvidia太慢了
摘要:近日,艾伦人工智能研究所(Allen Institute for AI)的研究科学家、卡内基梅隆大学助理教授TimDettmers在博客文章中指出:现阶段的计算处理器技术已接近物理,NVIDIA再快也不行 nvidia太慢了

近日,艾伦人工智能研究所(Allen Institute for AI)的研究科学家、卡内基梅隆大学助理教授Tim Dettmers在博客文章中指出:
现阶段的计算处理器技术已接近物理极点,有限的硬件扩展能力将成为实现通用人工智能(AGI)和超级智能的最大障碍。
他指出,关于AGI的讨论往往停留在哲学层面,但其最终实现必须依赖实际的运算能力支撑,现有硬件的扩展空间也许只剩下一到两年,此后任何性能提高都将面临物理上不可行性。
他强调,自2024年以来,GPU性能的提高已逐步趋于瓶颈,后续的改进主要依靠低精度数据类型和张量核心的优化,但这些新技术带来的效果并非如业界所宣传的那般大。
虽然单个GPU的性能已接近极点,但Dettmers认为,通过硬体整合创造仍可延长其运用寿命。
例如,NVIDIA新鲜的GB200 NVL72体系能够将加速器数量从8个提高至72个,从而实现了约30倍的推理智能提高。
